OpenAI казва, че е прекъснал иранска кампания за дезинформация
OpenAI съобщи в петък, че е разкрил и прекъснал иранска акция за въздействие, която е употребила генеративните технологии за изкуствен интелект на компанията за разпространяване на дезинформация онлайн, в това число наличие, обвързвано с президентските избори в Съединени американски щати.
The San Francisco A.I. компанията съобщи, че е забранила няколко акаунта, свързани с акцията, от своите онлайн услуги. Иранските старания, добави OpenAI, наподобява не са достигнали забележителна публика.
„ Изглежда, че интервенцията не се е облагодетелствала от значимо нараснала ангажираност на публиката заради потреблението на AI “, сподели Бен Нимо, основен откривател на OpenAI, който е прекарал години в следене на секрети акции за въздействие от позиции в компании, в това число OpenAI и Meta. „ Не забелязахме признаци, че изобщо получава забележителна ангажираност от действителни хора. “
издаде първия по рода си отчет, показващ, че е разпознал и прекъснал пет други онлайн акции, които са употребявали неговите технологии за лъжливо манипулират публичното мнение и въздействат на геополитиката. Тези старания бяха ръководени от държавни артисти и частни компании в Русия, Китай и Израел, както и Иран.Тези секрети интервенции използваха технологията на OpenAI за генериране на изявления в обществените медии, превод и редактирайте публикации, пишете заглавия и отстранявайте неточности в компютърни стратегии, нормално с цел да спечелите поддръжка за политически акции или да измененията публичното мнение в геополитически спорове.
Тази седмица OpenAI разпознава няколко акаунта в ChatGPT, които са употребявали своя chatbot за генериране на текст и изображения за скрита иранска акция, която компанията назова Storm-2035. Компанията сподели, че акцията е употребила ChatGPT за генериране на наличие, обвързвано с разнообразни тематики, в това число мнения за претенденти в президентските избори в Съединени американски щати.
В някои случаи коментарът наподобява напредничав. В други случаи изглеждаше консервативно. Освен това се занимава с горещи тематики, вариращи от войната в Газа до независимостта на Шотландия.
Кампанията, сподели OpenAI, е употребила своите технологии за генериране на публикации и по-кратки мнения, оповестени в уеб страници и в обществените медии. В някои случаи акцията употребява ChatGPT за пренаписване на мнения, оповестени от други консуматори на обществени медии.
OpenAI добави, че по-голямата част от изявленията на акцията в обществените медии са получили малко или никакви лайкове, споделяния или мнения и че е разкрило малко доказателства, че уеб публикациите, основани от акциите, са били споделяни в обществените медии.
